home *** CD-ROM | disk | FTP | other *** search
/ Merciful 1 / Merciful - Disc 1.iso / software / m / math_vision / mathvisionv2.1b.dms / mathvisionv2.1b.adf / README / MV_Precision.doc < prev    next >
Text File  |  1992-02-14  |  2KB  |  52 lines
  1.     There are two versions of MathVISION: single precision (FFP) and
  2.   double precision (IEEE).  The IEEE version can represent a wider 
  3.   range of numbers and a greater degree of precision than the FFP
  4.   version.  Both versions of MathVISION are supplied, the FFP version
  5.   is on the MathVISION disk and the IEEE version is on the MathVISION2
  6.   disk.  The drawers MathVISION.ffp and MathVISION.ieee contain the 
  7.   particular versions. 
  8.  
  9.   SINGLE PRECISION
  10.   ~~~~~~~~~~~~~~~~
  11.     MathVISION.ffp uses the Motorola Fast Floating Point library, with a
  12.   custom error-trapping interface.  The limits of the numbers are:
  13.  
  14.    9.22337377 x 10^18 >  +value  >  5.42101070 x 10^(-20)
  15.   -9.22337377 x 10^18 <  -value  < -2.71050535 x 10^(-20)
  16.  
  17.     All arithmetic errors are patched up when they are encountered.
  18.   For example, -3/0 would produce negative infinity (-.922337377e-19), and
  19.   sqrt( - 25 ) would yield 5, although the error is recorded.  The Analyze
  20.   feature will tell you where the function is in error.
  21.  
  22.     When numbers are displayed, they are converted from scientific notation
  23.   to normal fixed point notation unless they are too large.  The last digit 
  24.   is rounded off, to avoid .99999998 problems.
  25.  
  26.     Overflow errors may occur when converting from Fast Floating Point 
  27.   numbers to integers, as when doing modular division, or as the final step
  28.   in getting a Contour value.
  29.  
  30.  
  31.   DOUBLE PRECISION
  32.   ~~~~~~~~~~~~~~~~
  33.     The IEEE version of MathVISION uses the IEEE Floating Point library. 
  34.   The approximate limits of the numbers are:
  35.  
  36.      1.8 x 10^308 >  +value  >  2.2 x 10^(-308)
  37.     -2.2 x 10^(-308) <  -value  < -1.8 x 10^308
  38.  
  39.     When numbers are displayed, they are converted from scientific notation
  40.   to normal fixed point  notation unless they are too large.  The last digit
  41.   is rounded off, to avoid .99999998 problems.
  42.  
  43.     Overflow errors may occur when converting from IEEE numbers to integers,
  44.   as when doing modular division, or as the final step in getting
  45.   a Contour value.
  46.  
  47.     In Contour mode the numbers are rounded.
  48.  
  49.  
  50.  
  51.  
  52.